En 2019, la aparición de DeepNude encendió la polémica internacional al demostrar cómo la inteligencia artificial podía ser utilizada para vulnerar la intimidad de las mujeres. La aplicación empleaba algoritmos para generar desnudos falsos a partir de fotografías de mujeres vestidas, creando imágenes manipuladas con apariencia realista.
La herramienta, que operaba bajo el fenómeno conocido como deepfakes, solo estuvo activa alrededor de 24 horas antes de ser retirada tras una ola masiva de críticas. Sus propios creadores argumentaron “sobrecarga del servidor y daños potenciales” como motivo del cierre, aunque el rechazo social fue determinante.
Un uso peligroso de la inteligencia artificial
El caso puso en evidencia cómo la tecnología de generación de imágenes puede convertirse en un arma de acoso digital. La aplicación únicamente “desnudaba” cuerpos femeninos y, en caso de que la imagen original fuera de un hombre, añadía atributos sexuales femeninos. Aunque las imágenes llevaban inicialmente una marca de agua con la palabra fake, esta podía eliminarse fácilmente.
El episodio reactivó la discusión sobre los límites éticos de la IA y la facilidad con la que herramientas de manipulación visual pueden afectar la reputación, la dignidad y la seguridad de las personas.
Respuesta de plataformas y legislación
Las redes sociales comenzaron a endurecer sus políticas. Twitter anunció la suspensión inmediata de cuentas que difundieran desnudos sin consentimiento, incluidas imágenes manipuladas digitalmente. Por su parte, Instagram señaló que los contenidos verificados como falsos serían limitados en sus sistemas de recomendación.
En Estados Unidos, el estado de Virginia fue pionero en incorporar las imágenes falsas a la legislación contra la denominada revenge porn, permitiendo sanciones económicas y penas de prisión.
Marco legal en España
En España, la protección frente a estas prácticas se sustenta en el artículo 18 de la Constitución, que garantiza el derecho al honor, la intimidad y la propia imagen, desarrollado por la Ley Orgánica 1/1982. Además, el Código Penal contempla delitos como el trato degradante (art. 173.1), las injurias (art. 208) y la calumnia (art. 205), que pueden aplicarse en casos de difusión de imágenes falsas con fines lesivos.
Especialistas en derecho digital advierten que el problema no es nuevo, pero la inteligencia artificial ha multiplicado su alcance. La facilidad para crear contenidos verosímiles y su rápida viralización incrementan el riesgo de daño reputacional y psicológico.
Un debate vigente
Aunque DeepNude desapareció casi de inmediato, el caso dejó al descubierto la vulnerabilidad frente a las deepfakes y la necesidad de mayor regulación, educación digital y responsabilidad tecnológica. La inteligencia artificial puede ser una herramienta innovadora, pero también puede amplificar conductas dañinas cuando se utiliza sin límites éticos ni controles adecuado
